Mạng nơ ron là gì? Các công bố khoa học về Mạng nơ ron

Các đặc tính tính toán của việc sử dụng các sinh vật sống hoặc xây dựng máy tính có thể xuất hiện như những thuộc tính tập hợp của các hệ thống có một số lượng lớn các thành phần đơn giản tương đương (hoặc nơ-ron). Ý nghĩa vật lý của bộ nhớ có thể tìm kiếm theo nội dung được mô tả bởi một dòng không gian pha thích hợp của trạng thái của một hệ thống. Một mô hình cho hệ thống như vậy được cung cấp, dựa trên các khía cạnh của thần kinh sinh học nhưng dễ dàng thích nghi với mạch tích hợp. Các thuộc tính tập hợp của mô hình này tạo ra một bộ nhớ có thể tìm kiếm theo nội dung, mà từ đó có thể thu được toàn bộ bộ nhớ từ bất kỳ phần nào có kích thước đủ lớn. Thuật toán cho sự tiến hóa theo thời gian của trạng thái của hệ thống dựa trên xử lý song song không đồng bộ. Các thuộc tính tập hợp phát sinh bổ sung bao gồm một số khả năng tổng quát, nhận diện quen thuộc, phân loại, sửa lỗi, và giữ lại chuỗi thời gian. Các thuộc tính tập hợp chỉ nhạy cảm yếu với các chi tiết của mô hình hoặc sự cố của các thiết bị cá nhân.

Điều kiện thị trường không ổn định do đổi mới và sự gia tăng cường độ và đa dạng hoá cạnh tranh đã dẫn đến việc năng lực tổ chức thay vì phục vụ thị trường trở thành cơ sở chính để các công ty xây dựng chiến lược dài hạn của mình. Nếu tài nguyên chiến lược quan trọng nhất của công ty là tri thức, và nếu tri thức tồn tại dưới hình thức chuyên biệt giữa các thành viên trong tổ chức, thì bản chất của năng lực tổ chức là sự hội nhập tri thức chuyên môn của các cá nhân.

Bài viết này phát triển một lý thuyết dựa trên tri thức về năng lực tổ chức và dựa trên nghiên cứu về động lực cạnh tranh, quan điểm dựa trên tài nguyên của công ty, năng lực tổ chức và học hỏi tổ chức. Cốt lõi của lý thuyết là phân tích các cơ chế thông qua đó tri thức được hội nhập trong các công ty nhằm tạo dựng năng lực. Lý thuyết được sử dụng để khám phá tiềm năng của các công ty trong việc thiết lập lợi thế cạnh tranh trong các thị trường động, bao gồm vai trò của mạng lưới công ty dưới điều kiện liên kết không ổn định giữa đầu vào tri thức và đầu ra sản phẩm. Phân tích chỉ ra những khó khăn trong việc tạo ra “năng lực phản ứng linh hoạt và động” đã được xem là trọng tâm để thành công trong thị trường cạnh tranh khốc liệt.

Phân tích thành phần chính phi tuyến (NLPCA) là một kỹ thuật mới cho phân tích dữ liệu đa biến, tương tự như phương pháp phân tích thành phần chính (PCA) nổi tiếng. NLPCA, giống như PCA, được sử dụng để xác định và loại bỏ các mối tương quan giữa các biến vấn đề nhằm hỗ trợ giảm chiều, trực quan hóa và phân tích dữ liệu khám phá. Trong khi PCA chỉ xác định các mối tương quan tuyến tính giữa các biến, NLPCA phát hiện cả các mối tương quan tuyến tính và phi tuyến, không bị giới hạn bởi đặc điểm của các phi tuyến trong dữ liệu. NLPCA hoạt động bằng cách huấn luyện một mạng nơ-ron feedforward để thực hiện ánh xạ đồng nhất, trong đó đầu vào của mạng được tái hiện ở lớp đầu ra. Mạng này chứa một lớp “nút thắt” nội bộ (chứa ít nút hơn so với các lớp đầu vào hoặc đầu ra), buộc mạng phải phát triển một biểu diễn gọn gàng của dữ liệu đầu vào và hai lớp ẩn bổ sung. Phương pháp NLPCA được trình bày qua dữ liệu phản ứng lô mô phỏng theo thời gian. Kết quả cho thấy NLPCA thành công trong việc giảm chiều và tạo ra bản đồ không gian đặc trưng tương tự như phân bố thực tế của các tham số hệ thống tiềm ẩn.

Một vi sinh vật khử Fe(III) và Mn(IV) đã được tách ra từ trầm tích nước ngọt của sông Potomac, Maryland. Chế phẩm này được ký hiệu là GS-15, phát triển trong môi trường kị khí xác định với axetate làm chất cho electron duy nhất và Fe(III), Mn(IV) hoặc nitrat làm chất nhận electron duy nhất. GS-15 đã oxi hóa axetate thành carbon dioxide với sự khử đồng thời oxit sắt Fe(III) vô định hình thành magnetit (Fe ₃ O ₄ ). Khi Fe(III) citrate thay thế oxit sắt Fe(III) vô định hình như chất nhận electron, GS-15 phát triển nhanh hơn và đã khử toàn bộ Fe(III) thêm vào thành Fe(II). GS-15 đã khử oxit sắt Fe(III) vô định hình tự nhiên nhưng không khử đáng kể các dạng Fe(III) có tinh thể cao. Fe(III) được khử một cách tối ưu ở pH từ 6.7 đến 7 và ở nhiệt độ từ 30 đến 35°C. Ethanol, butyrate, và propionate cũng có thể đóng vai trò như chất cho electron trong quá trình khử Fe(III). Nhiều hợp chất hữu cơ khác và hydro không thể làm điều này. MnO ₂ đã bị khử hoàn toàn thành Mn(II), gây kết tủa dưới dạng rhodochrosite (MnCO ₃ ). Nitrat đã được khử thành amoniac. Oxy không thể làm chất nhận electron, và nó đã ức chế sự phát triển với các chất nhận electron khác. Đây là lần đầu tiên cho thấy rằng vi sinh vật có thể hoàn toàn oxi hóa các hợp chất hữu cơ với Fe(III) hoặc Mn(IV) làm chất nhận electron duy nhất và rằng sự oxi hóa chất hữu cơ kết hợp với sự khử Fe(III) hoặc Mn(IV) dissimilatory có thể tạo ra năng lượng cho sự phát triển của vi sinh vật. GS-15 cung cấp một mô hình cho cách mà các phản ứng xúc tác bằng enzym có thể là những cơ chế có ý nghĩa định lượng cho sự khử sắt và mangan trong môi trường kị khí.

Nhận diện hoạt động con người (HAR) thường được giải quyết bằng cách sử dụng các đặc trưng kỹ thuật được thu thập thông qua các quy trình heuristics. Nghiên cứu hiện tại cho thấy rằng các mạng nơ-ron tích chập sâu (CNN) rất phù hợp để tự động hóa quá trình trích xuất đặc trưng từ các dữ liệu cảm biến thô. Tuy nhiên, các hoạt động của con người bao gồm các chuỗi chuyển động phức tạp, và việc nắm bắt động lực tạm thời này là rất quan trọng cho việc nhận diện hoạt động thành công. Dựa trên sự thành công gần đây của các mạng nơ-ron tái kết nối cho các lĩnh vực chuỗi thời gian, chúng tôi đề xuất một khung sâu tổng quát cho nhận diện hoạt động dựa trên các đơn vị tích chập và đơn vị LSTM, mà: (i) phù hợp cho các cảm biến đeo được đa mô đun; (ii) có khả năng thực hiện bố hợp cảm biến một cách tự nhiên; (iii) không yêu cầu kiến thức chuyên môn trong việc thiết kế các đặc trưng; và (iv) mô hình hóa một cách rõ ràng động lực tạm thời của các đặc trưng kích hoạt. Chúng tôi đánh giá khung của mình trên hai tập dữ liệu, một trong số đó đã được sử dụng trong một thách thức nhận diện hoạt động công cộng. Kết quả cho thấy khung của chúng tôi vượt trội hơn các mạng nơ-ron không có hồi tiếp đang cạnh tranh trên tập dữ liệu thách thức với mức trung bình 4%; vượt hơn một số kết quả đã báo cáo trước đây lên đến 9%. Kết quả của chúng tôi cho thấy rằng khung có thể được áp dụng cho các mô hình cảm biến đồng nhất, nhưng cũng có thể bố hợp các cảm biến đa mô đun để cải thiện hiệu suất. Chúng tôi xác định ảnh hưởng của các siêu tham số kiến trúc chủ chốt đối với hiệu suất nhằm cung cấp cái nhìn về việc tối ưu hóa chúng.

Các khoáng vật oxit mangan đã được sử dụng trong hàng nghìn năm—bởi người xưa để chế tạo thuốc nhuộm và làm trong suốt kính, và ngày nay là quặng mangan, xúc tác, và vật liệu cho pin. Hơn 30 khoáng vật oxit mangan xuất hiện trong nhiều bối cảnh địa chất khác nhau. Chúng là thành phần chính của các hạt mangan trải rộng trên diện tích lớn của đáy đại dương và đáy nhiều hồ nước ngọt. Các khoáng vật oxit mangan có mặt khắp nơi trong đất và trầm tích và tham gia vào nhiều phản ứng hóa học ảnh hưởng đến nước ngầm và thành phần đất. Sự xuất hiện điển hình của chúng dưới dạng hỗn hợp hạt mịn khiến việc nghiên cứu cấu trúc nguyên tử và hóa học tinh thể của chúng trở nên khó khăn. Tuy nhiên, trong những năm gần đây, các nghiên cứu sử dụng kính hiển vi điện tử truyền qua và các phương pháp nhiễu xạ tia X bột và neutron đã cung cấp những hiểu biết mới quan trọng về cấu trúc và tính chất của những vật liệu này. Cấu trúc tinh thể của todorokite và birnessite, hai trong số các khoáng vật oxit mangan phổ biến hơn trong các mỏ trên đất liền và hạt đại dương, đã được xác định bằng dữ liệu nhiễu xạ tia X bột và phương pháp tinh chỉnh Rietveld. Do các đường hầm lớn trong todorokite và các cấu trúc liên quan, có nhiều sự quan tâm trong việc sử dụng những vật liệu này và các đồng thúc đẩy tổng hợp như là xúc tác và tác nhân trao đổi cation. Các khoáng vật thuộc nhóm birnessite có cấu trúc lớp và dễ dàng trải qua các phản ứng oxy hóa khử và phản ứng trao đổi cation, đóng vai trò quan trọng trong việc kiểm soát hóa học nước ngầm.

Giới hạn của trí nhớ làm việc được định nghĩa tốt nhất về mức độ phức tạp của các quan hệ có thể được xử lý song song. Độ phức tạp được định nghĩa là số lượng các chiều hoặc nguồn biến đổi liên quan. Một quan hệ đơn có một đối số và một nguồn biến đổi; đối số của nó chỉ có thể được hiện thực hóa theo một cách tại một thời điểm. Một quan hệ nhị phân có hai đối số, hai nguồn biến đổi, và hai hiện thực hóa, và cứ như vậy. Số chiều liên quan đến số lượng các phần thông tin, vì các thuộc tính trên các chiều cũng như các phần thông tin đều là các đơn vị thông tin độc lập với kích thước bất kỳ. Các nghiên cứu về giới hạn của trí nhớ làm việc cho thấy rằng có một giới hạn mềm tương ứng với xử lý song song một quan hệ bậc bốn. Những khái niệm phức tạp hơn được xử lý bằng cách “phân khúc” hoặc “tập hợp khái niệm”. Trong phân khúc, các nhiệm vụ được chia thành các thành phần không vượt quá khả năng xử lý và có thể được xử lý tuần tự. Trong tập hợp khái niệm, các đại diện bị “thu gọn” để giảm số chiều và do đó giảm tải xử lý, nhưng phải trả giá bằng việc làm một số thông tin quan hệ trở nên không truy cập được. Mô hình mạng nơron của các đại diện quan hệ cho thấy rằng các quan hệ có nhiều đối số hơn có chi phí tính toán cao hơn, điều này trùng khớp với những phát hiện thử nghiệm về tải xử lý cao hơn ở người. Độ phức tạp của quan hệ liên quan đến tải xử lý trong lập luận và hiểu câu và có thể phân biệt giữa năng lực của loài cao hơn. Độ phức tạp của các mối quan hệ được trẻ em xử lý tăng lên theo độ tuổi. Các hàm ý đối với các mô hình mạng nơron và lý thuyết về nhận thức và phát triển nhận thức được thảo luận.

Hình ảnh X-quang ngực là kỹ thuật chẩn đoán hình ảnh đầu tiên đóng vai trò quan trọng trong chẩn đoán bệnh COVID-19. Nhờ vào sự sẵn có cao của các tập dữ liệu hình ảnh được chú thích quy mô lớn, đã đạt được nhiều thành công lớn trong việc sử dụng mạng nơ-ron tích chập (CNN) cho nhận diện và phân loại hình ảnh. Tuy nhiên, do sự hạn chế về khả năng tiếp cận các hình ảnh y tế được chú thích, việc phân loại hình ảnh y tế vẫn là thách thức lớn nhất trong chẩn đoán y tế. Nhờ có học chuyển giao, một cơ chế hiệu quả có thể cung cấp giải pháp hứa hẹn bằng cách chuyển giao kiến thức từ các nhiệm vụ nhận diện đối tượng chung sang các nhiệm vụ đặc thù trong miền. Trong bài báo này, chúng tôi xác thực và giới thiệu một mạng CNN sâu, gọi là Phân tách, Chuyển giao và Tổng hợp (DeTraC), cho việc phân loại hình ảnh X-quang ngực bệnh COVID-19. DeTraC có thể xử lý bất kỳ sự bất thường nào trong tập dữ liệu hình ảnh bằng cách điều tra biên giới lớp của nó thông qua cơ chế phân tách lớp. Kết quả thực nghiệm cho thấy khả năng của DeTraC trong việc phát hiện các trường hợp COVID-19 từ một tập dữ liệu hình ảnh toàn diện được thu thập từ nhiều bệnh viện trên thế giới. Độ chính xác cao 93.1% (với độ nhạy 100%) đã được đạt được bởi DeTraC trong việc phát hiện hình ảnh X-quang COVID-19 từ các trường hợp bình thường và trường hợp hội chứng hô hấp cấp tính nặng.

Mục tiêu chính của nghiên cứu này là đánh giá và so sánh hiệu suất của các thuật toán học máy (ML) khác nhau, cụ thể là Mạng Nơron Nhân Tạo (ANN), Máy Học Tăng Cường (ELM) và thuật toán Cây Tăng Cường (Boosted), khi xem xét ảnh hưởng của các tỷ lệ đào tạo đối với kiểm tra trong việc dự đoán độ bền cắt của đất, một trong những tính chất kỹ thuật địa chất quan trọng nhất trong thiết kế và xây dựng công trình. Để thực hiện điều này, một cơ sở dữ liệu gồm 538 mẫu đất thu thập từ dự án nhà máy điện Long Phú 1, Việt Nam, đã được sử dụng để tạo ra các bộ dữ liệu cho quá trình mô hình hóa. Các tỷ lệ khác nhau (tức là 10/90, 20/80, 30/70, 40/60, 50/50, 60/40, 70/30, 80/20, và 90/10) đã được sử dụng để chia bộ dữ liệu thành bộ dữ liệu đào tạo và kiểm tra nhằm đánh giá hiệu suất của các mô hình. Các chỉ số thống kê phổ biến, chẳng hạn như Lỗi Bình Phương Trung Bình (RMSE), Lỗi Tuyệt Đối Trung Bình (MAE) và Hệ Số Tương Quan (R), đã được sử dụng để đánh giá khả năng dự báo của các mô hình dưới các tỷ lệ đào tạo và kiểm tra khác nhau. Ngoài ra, mô phỏng Monte Carlo đã được thực hiện đồng thời để đánh giá hiệu suất của các mô hình đề xuất, có tính đến ảnh hưởng của lấy mẫu ngẫu nhiên. Kết quả cho thấy mặc dù cả ba mô hình ML đều hoạt động tốt, nhưng ANN là mô hình chính xác nhất và ổn định nhất về mặt thống kê sau 1000 lần mô phỏng Monte Carlo (R Trung Bình = 0.9348) so với các mô hình khác như Boosted (R Trung Bình = 0.9192) và ELM (R Trung Bình = 0.8703). Điều tra về hiệu suất của các mô hình cho thấy khả năng dự báo của các mô hình ML bị ảnh hưởng lớn bởi các tỷ lệ đào tạo/kiểm tra, trong đó tỷ lệ 70/30 thể hiện hiệu suất tốt nhất của các mô hình. Một cách ngắn gọn, kết quả được trình bày ở đây thể hiện một cách thức hiệu quả trong việc lựa chọn các tỷ lệ dữ liệu phù hợp và mô hình ML tốt nhất để dự đoán chính xác độ bền cắt của đất, điều này sẽ hữu ích trong các giai đoạn thiết kế và kỹ thuật của các dự án xây dựng.

Các Mạng Nơ-ron Có Thông Tin Vật Lý (PINN) là các mạng nơ-ron (NN) mà trong đó nội dung các phương trình mô hình, như Phương Trình Vi Phân Bộ (PDE), được mã hóa như một thành phần của chính mạng nơ-ron. Hiện nay, PINNs được sử dụng để giải các phương trình PDE, phương trình phân thức, phương trình tích phân-vi phân, và các phương trình PDE ngẫu nhiên. Phương pháp mới này đã xuất hiện như một khuôn khổ học tập đa nhiệm trong đó một NN phải khớp với dữ liệu quan sát trong khi giảm thiểu phần dư của PDE. Bài viết này cung cấp một đánh giá toàn diện về tài liệu liên quan đến PINNs: trong khi mục tiêu chính của nghiên cứu là xác định đặc điểm của các mạng này cùng những ưu điểm và nhược điểm liên quan của chúng. Đánh giá này cũng cố gắng đưa vào các công bố về một phạm vi rộng hơn của các mạng nơ-ron có thông tin vật lý dựa trên phương pháp phân bố điểm, mà xuất phát từ PINN cơ bản, cũng như nhiều biến thể khác, chẳng hạn như mạng nơ-ron bị hạn chế bởi vật lý (PCNN), hp-VPINN biến thiên, và PINN bảo tồn (CPINN). Nghiên cứu chỉ ra rằng hầu hết các nghiên cứu đã tập trung vào việc tùy chỉnh PINN qua các hàm kích hoạt khác nhau, kỹ thuật tối ưu hóa gradient, cấu trúc mạng nơ-ron, và cấu trúc hàm mất mát. Mặc dù có nhiều ứng dụng mà PINN đã được sử dụng, thông qua việc chứng minh khả năng của chúng dễ thực hiện hơn trong một số bối cảnh so với các kỹ thuật số truyền thống như Phương Pháp Phần Tử Hữu Hạn (FEM), vẫn còn những tiến bộ có thể xảy ra, đặc biệt là các vấn đề lý thuyết vẫn chưa được giải quyết.